Технологичните компании подписаха споразумение за борба с генерираните от AI изборни измами
Големи технологични компании подписаха пакт в петък за доброволно приемане на „разумни предпазни мерки“, за да предотвратят използването на инструменти с изкуствен интелект за прекъсване на демократичните избори по света.
Технически ръководители от Adobe, Amazon, Google, Meta, Microsoft, OpenAI и TikTok се събраха на конференцията по сигурността в Мюнхен, за да обявят нова доброволна рамка за това как ще реагират на генерирани от AI deepfakes, които умишлено подмамват избирателите. Тринадесет други компании — включително IBM и X на Илон Мъск — също подписват споразумението.
„Всички признават, че нито една технологична компания, нито едно правителство, нито една организация на гражданското общество не е в състояние да се справи с навлизането на тази технология и възможното й нечестиво използване самостоятелно“, каза Ник Клег, президент по глобалните въпроси на Meta, компанията майка на Facebook и Instagram, в интервю преди срещата.
Споразумението е до голяма степен символично, но е насочено към все по-реалистични изображения, аудио и видео, генерирани от изкуствен интелект, „които измамно фалшифицират или променят външния вид, гласа или действията на политически кандидати, изборни служители и други ключови заинтересовани страни в демократични избори, или които предоставят невярна информация на избирателите за това кога, къде и как могат да гласуват законно.“
Компаниите не се ангажират да забраняват или премахват deepfakes. Вместо това, споразумението очертава методите, които те ще използват, за да се опитат да открият и етикетират измамно AI съдържание, когато то се създава или разпространява на техните платформи. Отбелязва се, че компаниите ще споделят най-добри практики една с друга и ще предоставят „бързи и пропорционални отговори“, когато това съдържание започне да се разпространява.
Неяснотата на ангажиментите и липсата на каквито и да е обвързващи изисквания вероятно помогнаха да се спечелят разнообразни компании, но може да разочароват продемократичните активисти и наблюдателите, които търсят по-силни гаранции.
„Всяка компания с право има свой собствен набор от правила за съдържанието“, каза Клег. „Това не е опит да се наложи усмирителна риза на всички. И във всеки случай, никой в индустрията не мисли, че можете да се справите с изцяло нова технологична парадигма, като замитате нещата под килима и се опитвате да играете на къртица и да намерите всичко, което смятате, че може да подведе някого.“
Споразумението на годишната среща по сигурността в германския град идва, тъй като повече от 50 страни трябва да проведат национални избори през 2024 г. Някои вече са го направили, включително Бангладеш, Тайван, Пакистан и наскоро Индонезия.
Опитите за генерирана от AI намеса в избори вече са започнали, като например, когато AI robot calls, които имитираха гласа на президента на САЩ Джо Байдън, се опитаха да обезсърчат хората да гласуват на първичните избори в Ню Хемпшир миналия месец.
Само дни преди изборите в Словакия през ноември, генерирани от AI аудиозаписи, представящи либерален кандидат, обсъждащ планове за повишаване на цените на бирата и фалшифициране на изборите. Проверяващите факти се опитваха да ги идентифицират като неверни, но те вече бяха широко споделени като истински в социалните медии.
Политици и предизборни комисии също експериментираха с технологията, от използването на AI чатботове за комуникация с избирателите до добавяне на Генерирани от AI изображения към реклами.
Преди изборите в Индонезия, лидер на политическа партия сподели видео, клонирайки лицето и гласа на починалия диктатор Сухарто. Публикацията на X разкрива, че видеото е генерирано от AI, но някои онлайн критици го нарекоха злоупотреба с инструменти за AI за сплашване и влияние на гласоподавателите. обърнете внимание на контекста и по-специално на запазването на образователни, документални, артистични, сатирични и политически изрази.“
В него се казва, че компаниите ще се съсредоточат върху прозрачността за потребителите относно техните политики относно измамно съдържание за избори с изкуствен интелект и ще работят, за да образоват обществеността за това как могат да избегнат фалшификати с изкуствен интелект.
Много от компаниите вече са го направили казаха, че поставят предпазни мерки върху собствените си генеративни AI инструменти, които могат да манипулират изображения и звук, като същевременно работят за идентифициране и етикетиране на генерирано от AI съдържание, така че потребителите на социалните медии да знаят дали това, което виждат, е реално. Но повечето от предложените решения все още не са въведени и компаниите са изправени пред натиск от страна на регулаторите и други да направят повече.
Този натиск се засилва в САЩ, където Конгресът все още не е приел закони, регулиращи ИИ в политиката, оставяйки AI компаниите до голяма степен да се управляват сами. При липсата на федерално законодателство много щати обмислят начини за поставяне на парапети около използването на AI, в избори и други приложения.
Федералната комисия по комуникациите наскоро потвърди, че генерираните от AI аудио клипове в роботизирани разговори са против закон, но това не обхваща аудио фалшификатите, когато те се разпространяват в социалните медии или в реклами на кампанията.
Експертите по дезинформация предупреждават, че макар фалшификатите с изкуствен интелект да са особено обезпокоителни поради потенциала им да прелетят под радара и да повлияят на избирателите, това година, по-евтините и по-прости форми на дезинформация остават основна заплаха. В споразумението се отбелязва и това, като се признава, че „традиционните манипулации („евтини фалшификати“) могат да се използват за подобни цели.“
Много компании за социални медии вече имат въведени политики за възпиране на измамни публикации за изборни процеси – генерирани от AI или не. Например Meta казва, че премахва дезинформация относно „датите, местата, часовете и методите за гласуване, регистрация на гласоподаватели или участие в преброяването“, както и други фалшиви публикации, предназначени да попречат на нечие гражданско участие.
Джеф Алън, съосновател на Integrity Institute и бивш специалист по данни във Facebook, каза, че споразумението изглежда като „положителна стъпка“, но все пак би искал компаниите за социални медии да предприемат други основни действия за борба с дезинформацията, като изграждане на системи за препоръчване на съдържание, които не дават приоритет на ангажираността преди всичко.
В допълнение към основните платформи, които помогнаха за постигането на петъчното споразумение, други подписали включват разработчици на чатботове Anthropic и Inflection AI; стартиране на гласово клониране ElevenLabs; дизайнер на чипове Arm Holdings; компаниите за сигурност McAfee и TrendMicro; и Stability AI, известен с това, че прави генератора на изображения Stable Diffusion.
Забележително липсва в споразумението друг популярен AI генератор на изображения, Midjourney. Базираният в Сан Франциско стартъп не върна веднага молба за коментар в петък.
Включването на X — неспоменато в по-ранно съобщение за предстоящото споразумение — беше една от най-големите изненади на споразумението от петък. Мъск рязко ограничи екипите за модериране на съдържание, след като пое бившия Twitter и се описа като „абсолютист на свободата на словото“.
Но в изявление в петък главният изпълнителен директор на X Линда Яккарино каза, че „всеки гражданин и компания носи отговорност да гарантира свободни и честни избори.“
„X е отдаден да играе своята роля, като си сътрудничи с връстници за борете се със заплахите от ИИ, като същевременно защитавате свободата на словото и увеличавате максимално прозрачността“, каза тя.
__
Асошиейтед прес получава подкрепа от няколко частни фондации, за да подобри своето обяснително отразяване на изборите и демокрацията. Вижте повече за инициативата за демокрация на AP тук. AP е единствено отговорен за цялото съдържание.
